-
ARS 1,060.20 (-0.50%) -
BTC 63,690.00 (+1.38%) -
ETH 3,303.81 (+6.06%) -
SOL 142.43 (+4.73%) -
PEPE <0.01 (+9.05%) -
NEAR 7.30 (+7.13%) -
ETHFI 4.34 (+29.79%) -
BONK <0.01 (+8.75%) -
WIF 2.74 (+3.55%) -
ENA 0.85 (+5.34%) -
OP 2.65 (+16.11%) -
DOGE 0.15 (+3.43%) -
GLM 0.47 (-12.97%) -
BOME <0.01 (+5.78%) -
XRP 0.52 (+1.30%) -
RUNE 5.20 (+4.59%) -
WLD 4.86 (+4.02%) -
ETC 29.16 (+10.12%) -
AVAX 34.67 (+2.36%) -
MATIC 0.73 (+5.70%) -
COS 0.02 (-12.74%) -
LTC 84.58 (-0.90%) -
FLOKI <0.01 (+3.57%) -
STRK 1.28 (+12.81%) -
LEVER <0.01 (-1.93%) -
FTM 0.72 (+5.06%) -
AR 34.87 (+11.44%)
ພວກນັກຄົ້ນຄ້ວາ ທີ່ເອທີ ຊູຣິກ ສ້າງການໂຈມຕີໃນຄຸກ ໂດຍຜ່ານທາງAI guardrails
(Researchers at ETH Zurich create jailbreak attack bypassing AI guardrails)
Published: 2023-11-27
1. ການ ໂຈມ ຕີ ດ້ວຍ ລະ ບົບ ສະ ຕິ ປັນ ຍາ ຈອມ ປອມ ບົດ ຄວາມ ສົນ ທະ ນາ ກ່ຽວ ກັບ ການ ພັດ ທະ ນາ ເມື່ອ ບໍ່ ດົນ ມາ ນີ້ ບ່ອນ ທີ່ ນັກ ຄົ້ນ ຄວ້າ ຈາກ ເອ ທີ ຊູ ຣິກ ໄດ້ ປະ ຕິ ບັດ ຢ່າງ ສໍາ ເລັດ ຜົນ ໃນ ລະ ບົບ "ການ ໂຈມ ຕີ ລະ ບາດ" ຕໍ່ ລະ ບົບ ສະ ຕິ ປັນ ຍາ ຈອມ ປອມ (AI). ການ ໂຈມ ຕີ ຄັ້ງ ນີ້ ແມ່ນ ກ່ຽວ ພັນ ກັບ ການ ຂູດ ຮີດ ຄວາມ ອ່ອນ ແອ ໃນ ຂະ ບວນ ການ ຕັດ ສິນ ໃຈ ຂອງ AI, ເຮັດ ໃຫ້ ການ ຕັດ ສິນ ໃຈ ທີ່ ບໍ່ ຖືກ ຕ້ອງ ຫລື ອາດ ເປັນ ອັນ ຕະ ລາຍ. ພວກ ນັກ ຄົ້ນ ຄວ້າ ສາມາດ ຄວບ ຄຸມ ການ ຕັດສິນ ໃຈ ຂອງ AI ໄດ້ ໂດຍ ການ ປ່ຽນ ແປງ ຂໍ້ ມູນ ການ ນໍາ ເຂົ້າ ທີ່ ຕົນ ໄດ້ ຮັບ ຢ່າງ ແນ ບ. ການ ຄົ້ນ ພົບ ຄັ້ງ ນີ້ ເນັ້ນ ເຖິງ ຄວາມ ຈໍາ ເປັນ ທີ່ ຈະ ຕ້ອງ ມີ ມາດ ຕະ ການ ຮັກ ສາ ຄວາມ ປອດ ໄພ ເພີ່ມ ຂຶ້ນ ເພື່ອ ປົກ ປ້ອງ ລະບົບ AI ຈາກ ການ ເຂົ້າ ເຖິງ ທີ່ ບໍ່ ໄດ້ ຮັບ ອະ ນຸ ຍາດ ແລະ ອາດ ຈະ ໃຊ້ ໃນ ທາງ ທີ່ ຜິດ. ຄວາມ ຫມາຍ ຂອງ ການ ໂຈມ ຕີ ໃນ ຄຸກ ນີ້ ຕໍ່ ອຸດ ສາ ຫະ ກໍາ ທີ່ ເພິ່ງ ພາ ອາ ໄສ AI ເຊັ່ນ: ຍານ ພາ ຫະ ນະ ທີ່ ເປັນ ອິດ ສະ ລະ ແລະ ລະ ບົບ ການ ເງິນ ແມ່ນ ມີ ຄວາມ ສໍາ ຄັນ.
2. ຄວາມອ່ອນແອໃນ AI Decision-Making The ນັກຄົ້ນຄວ້າທີ່ ETH Zurich ໄດ້ລະບຸເຖິງຄວາມອ່ອນແອໃນຂັ້ນຕອນການຕັດສິນໃຈຂອງລະບົບ AI ເຊິ່ງອະນຸຍາດໃຫ້ເຂົາເຈົ້າໃຊ້ປະໂຫຍດແລະຄວບຄຸມຄວາມສາມາດໃນການຕັດສິນໃຈຂອງ AI. ໂດຍ ການ ແນ ໃສ່ ຂໍ້ ມູນ ການ ນໍາ ເຂົ້າ ຢ່າງ ແນ ກ, ພວກ ເຂົາ ເຈົ້າ ໄດ້ ມີ ອິດ ທິພົນ ຕໍ່ ຜົນ ການ ຕັດສິນ ໃຈ ຂອງ AI. ສິ່ງນີ້ກໍ່ໃຫ້ເກີດຄວາມກັງວົນກ່ຽວກັບຄວາມຫນ້າເຊື່ອຖື ແລະ ຄວາມຊື່ສັດຂອງລະບົບ AI ໂດຍສະເພາະໃນຂະແຫນງການທີ່ສໍາຄັນ ເຊິ່ງການຕັດສິນໃຈຂອງພວກເຂົາມີຜົນກະທົບຕໍ່ໂລກຕົວຈິງ. ການຮັບປະກັນຄວາມປອດໄພຂອງຂະບວນການຕັດສິນໃຈຂອງ AI ກາຍເປັນສິ່ງສໍາຄັນທີ່ຈະປ້ອງກັນການເຂົ້າເຖິງແລະການຈັດການທີ່ອາດບໍ່ໄດ້ຮັບອະນຸຍາດ.
3. ຄວາມ ຫມາຍ ສໍາ ລັບ ອຸດ ສາ ຫະ ກໍາ ທີ່ ເພິ່ງ ພາ ອາ ໄສ AI ການ ປະ ຕິ ບັດ ທີ່ ປະ ສົບ ຄວາມ ສໍາ ເລັດ ຂອງ ການ ໂຈມ ຕີ ລະ ບົບ AI ມີ ຄວາມ ຫມາຍ ທີ່ ກວ້າງ ໄກ ສໍາ ລັບ ອຸດ ສາ ຫະ ກໍາ ທີ່ ເພິ່ງ ພາ ອາ ໄສ ເຕັກ ໂນ ໂລ ຊີ AI ຢ່າງ ຫນັກ. ຍົກ ຕົວ ຢ່າງ, ຍານ ພາ ຫະ ນະ ທີ່ ເປັນ ອິດ ສະ ລະ ອາດ ຈະ ມີ ຄວາມ ຮູ້ ໄວ ຕໍ່ ພວກ ແຮັກ ເກີ ທີ່ ເປັນ ອັນ ຕະ ລາຍ ຜູ້ ທີ່ ຂູດ ຮີດ ຄວາມ ອ່ອນ ແອ ເຫລົ່າ ນີ້ ເພື່ອ ຄວບ ຄຸມ ການ ຕັດ ສິນ ໃຈ ຂອງ AI, ພາ ໃຫ້ ເກີດ ອຸ ບັດ ຕິ ເຫດ ຫຼື ຄວາມ ວຸ້ນ ວາຍ ຢູ່ ໃນ ເສັ້ນ ທາງ. ຄ້າຍຄືກັນ, ລະບົບການເງິນທີ່ໃຊ້algorithms AI ໃນການຕັດສິນໃຈລົງທຶນອາດຈະມີຄວາມສ່ຽງຖ້າຜູ້ໂຈມຕີຄວບຄຸມ AI ເພື່ອເຮັດການຄ້າທີ່ບໍ່ຖືກຕ້ອງຫຼືຫຼອກລວງ. ການ ຄົ້ນ ພົບ ຄັ້ງ ນີ້ ເນັ້ນ ເຖິງ ຄວາມ ຈໍາ ເປັນ ຢ່າງ ຮີບ ດ່ວນ ທີ່ ຈະ ເສີມ ຂະ ແຫນງ ຄວາມ ຫມັ້ນ ຄົງ ທາງ ອິນ ເຕີ ແນັດ ຂອງ ອຸດ ສາ ຫະ ກໍາ ທີ່ ຂຶ້ນ ກັບ AI ເພື່ອ ປ້ອງ ກັນ ການ ໂຈມ ຕີ ທີ່ ອາດ ຈະ ເກີດ ຂຶ້ນ ແລະ ປົກ ປ້ອງ ຄວາມ ປອດ ໄພ ຂອງ ສັງ ຄົມ.. .
1. Jailbreak Attack on Artificial Intelligence Systems The article discusses a recent development where researchers from ETH Zurich have successfully executed a "jailbreak attack" on artificial intelligence (AI) systems. This attack involves exploiting vulnerabilities in the AI's decision-making process,causing it to make incorrect or potentially harmful decisions. The researchers were able to manipulate the AI's decision-making by subtly altering the input data it received. This discovery highlights the need for increased security measures to protect AI systems from unauthorized access and potential misuse. The implications of this jailbreak attack on industries relying on AI,such as autonomous vehicles and financial systems,are significant.
2. Vulnerabilities in AI Decision-Making The researchers at ETH Zurich identified vulnerabilities in the decision-making process of AI systems,which allowed them to exploit and manipulate the AI's decision-making capabilities. By subtly tweaking the input data,they were able to influence the AI's decision outcomes. This raises concerns about the reliability and integrity of AI systems,especially in critical sectors where their decisions have real-world consequences. Ensuring the security of AI decision-making processes becomes crucial to prevent potential unauthorized access and manipulations.
3. Implications for AI-dependent Industries The successful execution of a jailbreak attack on AI systems has far-reaching implications for industries that heavily rely on AI technology. Autonomous vehicles,for instance,could be susceptible to malicious hackers who exploit these vulnerabilities to manipulate the AI's decision-making,leading to accidents or chaos on the roads. Similarly,financial systems that use AI algorithms to make investment decisions may be at risk if attackers manipulate the AI to make incorrect or fraudulent trades. This discovery emphasizes the urgent need to bolster the cybersecurity measures of AI-dependent industries to safeguard against potential attacks and protect public safety.
Reference: cointelegraph.com
ຫຼຽນທີ່ມີການຊື້ຂາຍຫຼາຍທີ່ສຸດ
(ອັບເດດທຸກໆ 1 ຊົ່ວໂມງ)
| ທີ່ | ຈາກ | ແມ່ນ ($US) | ລາຍໄດ້ ($) |
|---|---|---|---|
| 1 | ARS |
1,060.20 | 1,593,958,863.50 |
| 2 | BTC |
63,690.00 | 1,162,774,277.02 |
| 3 | ETH |
3,303.81 | 1,154,637,469.05 |
| 4 | SOL |
142.43 | 493,675,216.56 |
| 5 | PEPE |
<0.01 | 294,037,887.25 |
| 6 | NEAR |
7.30 | 150,845,645.05 |
| 7 | ETHFI |
4.34 | 140,608,791.80 |
| 8 | BONK |
<0.01 | 130,008,916.04 |
| 9 | WIF |
2.74 | 122,354,890.70 |
| 10 | ENA |
0.85 | 119,752,093.09 |
| 11 | OP |
2.65 | 100,342,266.55 |
| 12 | DOGE |
0.15 | 98,881,993.14 |
| 13 | GLM |
0.47 | 86,802,611.68 |
| 14 | BOME |
<0.01 | 81,401,298.65 |
| 15 | XRP |
0.52 | 69,466,231.20 |
| 16 | RUNE |
5.20 | 60,533,256.52 |
| 17 | WLD |
4.86 | 55,519,817.71 |
| 18 | ETC |
29.16 | 53,809,202.56 |
| 19 | AVAX |
34.67 | 51,718,599.68 |
| 20 | MATIC |
0.73 | 45,889,481.23 |
| 21 | COS |
0.02 | 45,555,651.38 |
| 22 | LTC |
84.58 | 45,388,880.13 |
| 23 | FLOKI |
<0.01 | 44,708,906.67 |
| 24 | STRK |
1.28 | 42,429,025.06 |
| 25 | LEVER |
<0.01 | 41,543,315.90 |
| 26 | FTM |
0.72 | 35,079,390.46 |
| 27 | AR |
34.87 | 34,855,351.79 |
ຫຼຽນທີ່ມີລາຄາເພີ່ມຂຶ້ນຢ່າງໄວວາ
(ອັບເດດທຸກໆ 1 ນາທີ)
| ທີ່ | ຈາກ | ແມ່ນ ($US) | ເພີ່ມເຕີມ (%) |
|---|---|---|---|
| 1 | ETHFI |
4.34 | +29.79 |
| 2 |  ATA |
0.24 | +24.58 |
| 3 |  ONG |
0.69 | +17.98 |
| 4 |  OM |
0.79 | +16.42 |
| 5 | OP |
2.65 | +16.11 |
| 6 |  SSV |
52.76 | +16.08 |
| 7 | STRK |
1.28 | +12.81 |
| 8 |  SAGA |
3.91 | +12.02 |
| 9 | AR |
34.87 | +11.44 |
| 10 |  COMBO |
0.78 | +11.00 |
| 11 |  ILV |
104.05 | +10.77 |
| 12 | ETC |
29.16 | +10.12 |
| 13 |  ENS |
16.42 | +9.83 |
| 14 |  SEI |
0.61 | +9.14 |
| 15 |  HIGH |
4.14 | +9.10 |
| 16 | PEPE |
<0.01 | +9.05 |
| 17 | BONK |
<0.01 | +8.75 |
| 18 |  METIS |
66.15 | +8.46 |
| 19 |  ANKR |
0.05 | +8.34 |
| 20 |  REI |
0.09 | +7.36 |
| 21 |  NEO |
18.77 | +7.32 |
| 22 | NEAR |
7.30 | +7.13 |
| 23 |  LDO |
2.07 | +7.05 |
| 24 |  ARKM |
2.12 | +6.82 |
| 25 |  PROS |
0.39 | +6.70 |
| 26 |  ASTR |
0.11 | +6.55 |
| 27 |  AEVO |
1.52 | +6.53 |
| 28 |  WNXM |
68.59 | +6.44 |
| 29 |  MAV |
0.41 | +6.42 |
| 30 |  GALA |
0.05 | +6.40 |
ລາຄາຂອງຫຼຽນແມ່ນຫຼຸດລົງຢ່າງໄວວາ.
(ອັບເດດທຸກໆ 1 ນາທີ)
| ທີ່ | ຈາກ | ແມ່ນ ($US) | ຫຼຸດຜ່ອນ (%) |
|---|---|---|---|
| 1 |  CTSI |
0.21 | -13.87 |
| 2 | GLM |
0.47 | -12.97 |
| 3 | COS |
0.02 | -12.74 |
| 4 |  LTO |
0.19 | -4.63 |
| 5 |  POWR |
0.31 | -4.15 |
| 6 |  BNX |
0.95 | -3.72 |
| 7 |  WING |
6.06 | -3.35 |
| 8 |  CREAM |
44.04 | -2.97 |
| 9 |  ASR |
3.95 | -2.35 |
| 10 |  LOOM |
0.09 | -2.14 |
| 11 |  TROY |
<0.01 | -2.00 |
| 12 | LEVER |
<0.01 | -1.93 |
| 13 |  ATM |
3.12 | -1.64 |
| 14 |  ERN |
4.35 | -1.58 |
| 15 |  HBAR |
0.11 | -1.58 |
| 16 |  DATA |
0.06 | -1.41 |
| 17 |  SFP |
0.78 | -1.18 |
| 18 |  PUNDIX |
0.67 | -1.03 |
| 19 |  SANTOS |
6.38 | -0.95 |
| 20 | LTC |
84.58 | -0.90 |
| 21 |  CVC |
0.17 | -0.83 |
| 22 |  DODO |
0.18 | -0.61 |
| 23 |  SUN |
0.02 | -0.57 |
| 24 |  ENJ |
0.32 | -0.53 |
| 25 |  SXP |
0.35 | -0.43 |
| 26 |  ELF |
0.64 | -0.41 |
| 27 |  BLZ |
0.34 | -0.38 |
| 28 |  ROSE |
0.10 | -0.34 |
| 29 |  USDP |
1.00 | -0.25 |
| 30 |  STEEM |
0.28 | -0.25 |
Bitcoin's Greed and Fear Index.
?65
Greed
Global CryptoCurrency News
?(See more news ...)
ຂ່າວສະຫະລັດ ທີ່ມີຜົນກະທົບຢ່າງຫຼວງຫຼາຍຕໍ່ຕະຫຼາດ
| ທີ່ | ຂ່າວ | ມື້ | ວັນທີ | ເວລາ |
|---|---|---|---|---|
| 1 | Employment Cost Index q/q (Employment Cost Index q/q) | ວັນອັງຄານ (Tue) | 30-04-2024 | 19:30 |
| 2 | ດັດຊະນີລາຄາເຮືອນແມ່ນໄດ້ຮັບການຄິດໄລ່ໂດຍການເກັບກໍາຂໍ້ມູນລາຄາເຮືອນຈາກ 20 ຕົວເມືອງໃນສະຫະລັດອາເມລິກາແລະການສົມທຽບລາຄາເຮືອນໃນເດືອນປັດຈຸບັນກັບເດືອນດຽວກັນຂອງປີກ່ອນ. (S&P/CS Composite-20 HPI y/y) | ວັນອັງຄານ (Tue) | 30-04-2024 | 20:00 |
| 3 | ລາຍງານດັດຊະນີລາຄາທີ່ຢູ່ອາໄສປະຈໍາເດືອນຂອງສະຫະລັດ (HPI m/m) | ວັນອັງຄານ (Tue) | 30-04-2024 | 20:00 |
| 4 | ດັດຊະນີຜູ້ຈັດການການຊື້ພື້ນທີ່ Chicago (Chicago PMI) | ວັນອັງຄານ (Tue) | 30-04-2024 | 20:45 |
| 5 | ບົດລາຍງານຄວາມຫມັ້ນໃຈຂອງຜູ້ບໍລິໂພກ (CB Consumer Confidence) | ວັນອັງຄານ (Tue) | 30-04-2024 | 21:00 |
| 6 | ການຈ້າງງານເອກະຊົນທີ່ບໍ່ແມ່ນກະສິກໍາ (ADP Non-Farm Employment Change) | ວັນພຸດ (Wed) | 01-05-2024 | 19:15 |
| 7 | ດັດຊະນີຜະລິດຕະພັນມາດຕະຖານໃນຂະແຫນງການຜະລິດ (Final Manufacturing PMI) | ວັນພຸດ (Wed) | 01-05-2024 | 20:45 |
| 8 | ດັດຊະນີຜູ້ຈັດການຝ່າຍຈັດຊື້ຂອງສະຫະລັດ (ISM Manufacturing PMI) | ວັນພຸດ (Wed) | 01-05-2024 | 21:00 |
| 9 | ວຽກໃໝ່ໃນສະຫະລັດ (JOLTS Job Openings) | ວັນພຸດ (Wed) | 01-05-2024 | 21:00 |
| 10 | ດັດຊະນີລາຄາການຜະລິດຈາກ ISM Institute, USA (ISM Manufacturing Prices) | ວັນພຸດ (Wed) | 01-05-2024 | 21:00 |
| 11 | ລາຍຈ່າຍການກໍ່ສ້າງປະຈໍາເດືອນ (Construction Spending m/m) | ວັນພຸດ (Wed) | 01-05-2024 | 21:00 |
| 12 | ບົດລາຍງານການຂາຍລົດທັງຫມົດ (Wards Total Vehicle Sales) | ວັນພຸດ (Wed) | 01-05-2024 | 21:15 |
| 13 | ບົດລາຍງານການບັນທຶກນ້ໍາມັນດິບ (Crude Oil Inventories) | ວັນພຸດ (Wed) | 01-05-2024 | 21:30 |
| 14 | ອັດຕາດອກເບ້ຍນະໂຍບາຍຂອງສະຫະລັດ (Federal Funds Rate) | ວັນພະຫັດ (Thur) | 02-05-2024 | 01:00 |
| 15 | ຖະແຫຼງການຂອງທະນາຄານກາງ Fed (FOMC Statement) | ວັນພະຫັດ (Thur) | 02-05-2024 | 01:00 |
| 16 | ຖະແຫຼງການຂອງ Fed (FOMC Press Conference) | ວັນພະຫັດ (Thur) | 02-05-2024 | 01:30 |
| 17 | ບົດລາຍງານແນວໂນ້ມການຫວ່າງງານປະຈໍາປີ (Challenger Job Cuts y/y) | ວັນພະຫັດ (Thur) | 02-05-2024 | 18:30 |
| 18 | ຕົວເລກການຫວ່າງງານຂອງສະຫະລັດ (Unemployment Claims) | ວັນພະຫັດ (Thur) | 02-05-2024 | 19:30 |
| 19 | ບົດລາຍງານດັດຊະນີສະພາບແຮງງານບໍ່ກະສິກໍາປະຈໍາໄຕມາດ (Prelim Nonfarm Productivity q/q) | ວັນພະຫັດ (Thur) | 02-05-2024 | 19:30 |
| 20 | ບົດລາຍງານຄ່າໃຊ້ຈ່າຍແຮງງານປະຈໍາໄຕມາດ (Prelim Unit Labor Costs q/q) | ວັນພະຫັດ (Thur) | 02-05-2024 | 19:30 |
| 21 | ບົດລາຍງານດັດຊະນີດຸ່ນດ່ຽງການຄ້າ (Trade Balance) | ວັນພະຫັດ (Thur) | 02-05-2024 | 19:30 |
| 22 | ບົດລາຍງານການສັ່ງຊື້ໂຮງງານປະຈໍາເດືອນ (Factory Orders m/m) | ວັນພະຫັດ (Thur) | 02-05-2024 | 21:00 |
| 23 | ບົດລາຍງານການສະຫງວນອາຍແກັສທໍາມະຊາດ (Natural Gas Storage) | ວັນພະຫັດ (Thur) | 02-05-2024 | 21:30 |
| 24 | ລາຍໄດ້ສະເລ່ຍຕໍ່ຊົ່ວໂມງເຮັດວຽກ (Average Hourly Earnings m/m) | ວັນສຸກ (Fri) | 03-05-2024 | 19:30 |
| 25 | ບົດລາຍງານອັດຕາການຈ້າງງານສະຫະລັດ (Non-Farm Employment Change) | ວັນສຸກ (Fri) | 03-05-2024 | 19:30 |
| 26 | ອັດຕາການຫວ່າງງານຂອງສະຫະລັດ (Unemployment Rate) | ວັນສຸກ (Fri) | 03-05-2024 | 19:30 |
| 27 | ດັດຊະນີຜູ້ຈັດການຈັດຊື້ການບໍລິການສຸດທ້າຍ (Final Services PMI) | ວັນສຸກ (Fri) | 03-05-2024 | 20:45 |
| 28 | ດັດຊະນີຜູ້ຈັດການຝ່າຍຈັດຊື້ການບໍລິການຂອງສະຫະລັດ (ISM Services PMI) | ວັນສຸກ (Fri) | 03-05-2024 | 21:00 |
| 29 | ຖະແຫຼງການຂອງສະມາຊິກ FED (Williams). (FOMC Member Williams Speaks) | ວັນເສົາ (Sat) | 04-05-2024 | 06:45 |
